УНИТАРНОЕ ПРЕДСТАВЛЕНИЕ

топологической группы - представление топологич. группы унитарными операторами в гильбертовом пространстве. Теория У. п.- один из наиболее разработанных разделов теории представлений топологич. групп, что связано как с его многочисленными приложениями, так и с наличием ряда свойств, упрощающих изучение У. п. А именно, любое У. п. вполне приводимо; для У. п. условия полной неприводимости, тензорной неприводимости, топологич. неприводимости и операторной неприводимости равносильны; из непрерывности У. п. в слабой операторной топологии следует его непрерывность; для У. п. определена операция тензорного произведения представлений, а также операция перехода к контрагредиентному представлению (в гильбертовом пространстве, комплексно сопряженном к данному), и для операций прямой суммы, тензорного произведения и перехода к контрагредиентному представлению справедлив ряд естественных алгебраических соотношений.
Наиболее разработанной и наиболее важной в приложениях частью общей теории У. п. является теория У. п. локально компактных групп. Не существует описания класса групп, У. п. (или неприводимые У. п.) к-рых разделяют точки группы (1984). Однако если группа Gлокально компактна, то для любого неединичного элемента существует такое неприводимое У. п. я группы G, что - неединичный оператор в пространстве представления (теорема Гельфанда - Райкова). Кроме того, между невырожденными симметричными представлениями групповой алгебры L_l(G)(построенной по левой мере Хаара) и непрерывными У.п. группы G существует естественное взаимно однозначное соответствие определяемое формулой

при этом представление алгебры L_l(G)тогда и только тогда является топологически неприводимым (фактор-представлением, представлением данного типа, представлением, эквивалентным или квазиэквивалентным другому), когда соответствующее У. п. p группы G обладает тем же свойством.
Теория циклических У. п. локально компактной группы G, связанная с теорией положительных линейных функционалов на L₁(G), может быть изложена с помощью соответствующих сферич. функций (см. Представление топологической группы). Сферич. функции, связанные с У. п. локально компактной группы G, являются непрерывными положительно определенными функциями на группе, и обратно, любая непрерывная положительно определенная функция на G, равная 1 в единице, является сферич. функцией, связанной с циклическим У. п. (и определяется циклич. вектором этого У. п.). Совокупность В(G)линейных комбинаций непрерывных положительно определенных функций на G образует коммутативную банахову алгебру (относительно обычного умножения), называемую алгеброй Фурье-Стилтьеса группы G; замкнутый идеал A(G)в В(G), порожденный семейством функций вида где наз. алгеброй Фурье группы G. Банаховы алгебры A(G) и В(G) определяют группу G однозначно с точностью до изоморфизма или антиизоморфизма.
На множестве Р ₁ непрерывных положительно определенных функций на G, равных 1 в единице группы, топология равномерной сходимости на компактных подмножествах в G совпадает со слабой топологией, определяемой двойственностью между L₁(G) и и вложением P₁ в Любая функция из Р ₁ есть предел (в этих топологиях) сети выпуклых комбинаций положительно определенных функций, связанных с неприводимыми У. п. группы G; если же группа G сепарабельна, то существует такая положительная мера на компактном множестве непрерывных положительно определенных функций на G, не превосходящих 1по модулю, сосредоточенная на Р ₁, что

Конструкция У. н. но положительно определенной функции допускает обобщение на случай положительно определенных мер на G. Если группа G сепарабельна, то любое представление, определенное положительно определенной мерой, циклично.
У. п. локально компактной группы Gв гильбертовом пространстве Ндопускает разложение в топологич. прямой интеграл неприводимых У. п. группы G, если либо G, либо Нсепарабельны (для несепарабельных групп и пространств это, вообще говоря, неверно); кроме того, в этом случае У. п. допускает по существу однозначное разложение в прямой интеграл факторпредставлений. В связи с этим существенную роль играет двойственное пространство (факторпространство пространства неприводимых У. п. группы G, рассматриваемого в топологии, определяемой равномерной сходимостью матричных элементов на компактах, и в борелевской структуре, подчиненной этой топологии, по отношению эквивалентности, определяемому унитарной эквивалентностью У. п.) и квазидуальное пространство (факторпространство пространства факторпредставлений группы G, рассматриваемого в борелевской структуре, подчиненной топологии равномерной сходимости матричных элементов на компактах). Таким образом, - топологическое и борелевское пространство, - борелевское пространство, к-рое для сепарабельных групп может быть снабжено топологией, продолжающей топологию на Группа G наз. группой типа I, если все ее факторнредставления имеют тип I; для таких групп вопросы теории У. п. решаются проще, чем в общем случае. К группам типа I относятся алгебраич. группы Ли и алгебраич. группы Шевалле над р-адическими полями, нильпотентные группы Ли и др. Известна характеризация односвязных разрешимых групп Ли типа I. Группа G наз. ССR -группой, если для любого неприводимого У. п. группы G образ представления содержится в множестве ВС (Н _p) компактных операторов в пространстве представления Всякая CCR- группа является группой типа I. Группа типа I является ССR -группой тогда и только тогда, когда ее двойственное пространство есть T₁ -пространство. Нильпотентные группы Ли и линейные полупростые группы Ли являются ССR -группами. Образ представления содержится в для всех неприводимых У. п. группы G тогда и только тогда, когда все ее неприводимые У. п. конечномерны.
Сепарабельная локально компактная группа имеет тип I тогда и только тогда, когда ее двойственное пространство удовлетворяет нулевой аксиоме отделимости. Др. топологич. свойства спектра (Т ₁ -отделимость, хаусдорфовость, дискретность и др.) также связаны со свойствами группы. Особенно тесные связи между топологич. и алгебраич. свойствами группы и ее двойственного пространства существуют в классах групп, обладающих различными условиями компактности. К числу этих классов локально компактных групп относятся: 1) класс [MAP]максимальных почти периодич. групп (допускающих непрерывное вложение в компактную группу); 2) класс [SIN] групп, содержащих фундаментальную систему окрестностей единичного элемента, инвариантных относительно внутренних автоморфизмов; 3) класс [FС]^- групп с предкомпактными классами сопряженных элементов; 4) класс [FIА]^- групп с предкомпактной группой внутренних автоморфизмов; 5) класс групп, все неприводимые У. п. к-рых конечномерны; 6) класс групп, факторгруппа к-рых по центру компактна. Дуальные пространства групп класса [FC]^- хаусдорфовы, а группы класса [FIRi дискретны тогда и только тогда, когда их двойственное пространство компактно (хотя и не обязательно отделимо). Теория У. п. групп класса [MAP] связана с теорией почти периодич. функций на локально компактных группах. Характером У. п. локально компактной группы Gназ. такой точный нормальный полуконечный след tна множестве положительных элементов алгебры Неймана порожденной семейством что множество элементов хиз групповой С*-алгебры С*(G) группы G(обертывающей С*-алгебры групповой алгебры L₁(G)) таких, что конечен, переходит в множество, порождающее алгебру Неймана Если - факторпредставление (соответственно неприводимое У. п.), то характер . определяет У. п. однозначно с точностью до квазиэквивалентности (соответственно эквивалентности). Если - неприводимые У. п. группы G с характерами t₁, t₂ соответственно, то произведение этих следов определяет след на алгебре Неймана, порожденной У. п. Если этот след является характером представления то он (для сепарабельной группы или сепарабельных пространств представлений) определяет разложение У. и. в прямой интеграл факторпредставлений со следом по однозначно определенной мере (мере Планшереля для на квазиспектре Нахождение мер Планшереля тензорных произведений У. п. является одной из общих задач теории У. п.; в ряде случаев (в частности, для групп нек-рых У. п. др. полупростых групп Ли и нек-рых разрешимых групп Ли) эта задача решена (с помощью изучения спектрального разложения оператора Лапласа, методом орбит или методом орисфер).
Иногда характером У. п. в гильбертовом пространстве Нназ. линейный функционал на инвариантной относительно сдвигов подалгебре в алгебре М(G), определенный равенством где - представление алгебры определенное (предполагается, что однозначно определяется представлением операторы представления ядерны и отображение алгебры в пространство ядерных операторов непрерывно). Характеры неприводимых У. п. полупростых и нильпотентных групп Ли определяются обобщенными функциями, к-рые в случае полупростых групп измеримы и локально интегрируемы. Характеры неприводимых У. п. разрешимых групп Ли типа I определены, вообще говоря, лишь на подалгебрах алгебры финитных бесконечно дифференцируемых функций на G. Вычисление характеров во многом основано на формуле для характера индуцированного представления.
Компактная подгруппа К группы G наз. массивной, если ограничение любого неприводимого У. п. группы Gна подгруппу Ксодержит любое неприводимое У. п. группы Кс конечной кратностью. Пусть - проектор в пространстве представления на подпространство, в к-ром действует представление группы К, кратное функции вида

наз. К- сферическими функциями представления (ср. Представляющая функция). Группа G с массивной компактной подгруппой принадлежит типу I; каждое неприводимое У. п. группы G имеет характер и определяется однозначно с точностью до эквивалентности любой ненулевой сферич. функцией; дуальное пространство к группе G можно представить в виде счетного объединения (пересекающихся) хаусдорфовых локально компактных пространств (образованных такими что для данного а размерность соответствующего проектора имеет данное значение). К числу групп с массивной компактной подгруппой относятся линейные полупростые группы Ли и [Z]-группы.
Пусть - У. п. группы G в гильбертовом пространстве - алгебра Неймана, порожденная семейством p(G). Представление наз. допускающим cлед, если существует след на являющийся характером У. п. Следом на rpyппe G наз. полуконечный полунепрерывный снизу след на С*(G)⁺ ; след на G наз. характером группы G, если соответствующее У. п. группы G есть факторпредставление. Существует каноническое взаимно однозначное соответствие между множеством характеров группы G, определенных с точностью до положительного множителя, и множеством классов квазиэквивалентности факторпредставлений группы G, допускающих след; при этом факторпредставлениям конечного типа соответствуют непрерывные центральные положительно определенные функции на G.
Регулярное представление локально компактной группы G в гильбертовом пространстве L₂(G) есть точное непрерывное У. п.; С*-алгебра, порожденная образом соответствующего представления алгебры L_l(G), наз. приведенной С* -алгеброй группы G и обозначается C*_r(G); пусть N - ядро канонического эпиморфизма С*(G)на C_r(G). определяемого регулярным представлением. Группа G аменабельна, т. е. на существует инвариантное среднее, тогда и только тогда, когда N={0} (ограниченное представление аменабельной группы в гильбертовом пространстве эквивалентно У. п.). Семейство таких У. п. что ядро соответствующего представления C*-алгебры С*(G) содержит N, наз. основной серией; остальные У. п. образуют дополнительную серию.
Пусть G - унимодулярная сепарабельная локально компактная группа типа I, W*(G) - алгебра Неймана где - регулярное У. п. группы G. Существует единственная положительная мера на спектре группы G, удовлетворяющая условию

для всех Мера наз. мерой Планшореля. Кроме того, существует изоморфизм пространства L₂(G) на прямой интеграл операторов Гильберта - Шмидта в пространствах представлений по мере переводящий левое регулярное У. п. в прямой интеграл. У. п., кратных представлениям а след на W*(G), определяемый следом на для в прямой интеграл следов на След на C*(G) ⁺ совпадает со следом Формула (*) наз. формулой Планшереля; она допускает обобщение на несепарабельные унимодулярные локально компактные группы типа I, а также на неунимодулярные сепарабельные локально компактные группы и сепарабелъные группы не типа I. Одной из задач теории У. п. является явное построение меры Планшереля для данной локально компактной группы. Эта задача решена лишь частично (напр., для полупростых вещественных групп Ли, разрешимых групп Ли типа I, а также некоторых групп движений, некоторых групп Шевалле и нек-рых групп с условиями компактности). С разложением регулярного У. п. и формулой Планшереля связана теория квадратично интегрируемых представлений, дискретных серий и интегрируемых представлении.
Полное описание неприводимых У. п. локально компактных групп даже в случае групп Ли не известно.
Оно получено лишь для разрешимых групп Ли типа I, нек-рых редуктивных групп Ли, а также групп Шевалле (в малых размерностях), нек-рых нильпотентных локально компактных групп Ли и нек-рых полупрямых произведений. В этих описаниях решающую роль играет операция индуцирования (и ее обобщения), в частности метод орбит (и его обобщения). Задача изучения более общих проективных У. п. и У. п. с мультипликаторами связана с теорией обычных У. п. с помощью теории (непрерывных или борелевских) когомологий групп. Для групп не типа I полного описания факторпредставлений нет (с точностью до квазиэквивалентности), хотя для нек-рых из них получено описание факторпредставлении конечного типа. Теория У. п. играет решающую роль в теории ряда (банаховых и топологических) групповых алгебр: в изучении свойств винеровости и полной симметричности, описании максимальных односторонних и двусторонних идеалов и т. д. Теория У. п. играет важную роль также и в вопросах теории представлений и гармонического анализа, требующих использования неунитарных представлений - таких, как построение ограниченных серий и дополнительных серий; определении явного вида операторов, сплетающих представления из аналитич. родолжения основной серии У. п., изучение зацеплений вполне неприводимых представлений, развитие гармоиич. анализа в пространствах функций на группах и однородных пространствах, отличных от пространств L₂, изучение структуры и свойств групповых алгебр (алгебры мер, алгебры L₁(G),топологич. алгебры K(G)).

Лит.:[1] Кириллов А. А., Элементы теории представлений, 2 изд., М., 1978; [2] Наймарк М. А., Теория представлений групп, М., 1976; [3] его же, Нормированные кольца, 2 изд., М., 1968; [4] Желобенко Д. П., Компактные группы Ли и их представления, М., 1970; [5] Желобе нко Д. П., Штерн А. И., Представления групп Ли, М., 1983; [6] Диксмье Ж., С*-алгебры и их представления, пер. с франц., М., 1974; [7] Гельфанд И. М., Граев М. И., Пятецкий-Шапиро И. И., Теория представлений и автоморфные функции, М., 1966; [8] Виленкин Н. Я., Специальные функции и теории представлений групп, М., 1965: [9] Барут А., Рончка Р., Теория представлений групп и eе приложения, пер. с англ., т. 1-2, М., 1980; [10] Климык А. У., Матричные элементы и коэффициенты Клебша - Гордана представлений групп, К., 1979; [11] Масkеу G. W., Unitary group representations in physics, probability and number theory, Heading (Mass.), 1978; [12] Вernat P. [e. a.], Representations des groupes de Lie resolubles, P., 1972; [13] Вrezin J., Harmonic analysis on compact solvmanifolds, B.- [a. o.], 1977; [14] Non-commutative harmonic analysis, B.- [a. o.], 1979.
A. И. Штерн.